Mùa thu năm 1785, nhà vua đi duyệt binh trong một ngày mưa tầm tã, nên bệnh nặng.[170] Trong các tháng 5 - 6 năm 1786, bệnh tình của Friedrich ngày càng trở nên nghiêm trọng, khó có thể đi duyệt binh. Vốn chỉ có chút niềm tin đối với tôn giáo, độ tin tưởng của ông đối với y học cũng tương tự. Tuy nhiên, có lẽ do sức khỏe của ông không được khá hơn, nhà vua đã triệu Ngự y Hoàng gia Johann Georg Ritter von Zimmermann đến chữa bệnh cho ông.[60]

Vào ngày 4 tháng 7 năm 1786, ông cưỡi con ngựa xám dài tên là Condé chạy quanh những khu vườn Sanssouci với tốc độ cao. Về cung, Friedrich ngã quỵ xuống, và không bao giờ ra khỏi cung vua nữa.[60] Do căn bệnh phù, ông qua đời vào 2 giờ 20 phút buổi sáng ngày 17 tháng 8 năm 1786, hưởng thọ 74 tuổi. Cháu trai ông, vua Friedrich Wilhelm II (1744 - 1797) lên nối ngôi. Trước kia, cha của vị vua này là Thái đệ August Wilhelm đã mất vào năm 1758, nên Friedrich II chỉ định Friedrich Wilhelm II làm vị vua tương lai của Vương triều Brandenburg.[215][216]

Sinh thời, Friedrich II trăng trối rằng, ông muốn được chôn tại một vườn nho trên sân thượng của cung điện Sanssouci. Tuy nhiên, tân vương Friedrich Wilhelm II đã hạ lệnh cho chôn Friedrich II bên cạnh cha ông là Friedrich Wilhelm I trong một Nhà thờ Công sự tại Postdam (bị phá hủy năm 1945).[128] Đến Chiến tranh thế giới lần thứ hai (1939 – 1945), người ta đã chuyển quan tài chứa vua cha Friedrich Wilhelm I và Friedrich II tới một cái hầm dưới lòng đất, sau đó lại chuyển đến một cái giếng mỏ gần thị trấn Bernrode để bảo vệ cho thi hài các vị vua không bị phá hoại trong chiến tranh. Vào ngày 27 tháng 4 năm 1945, Quân đội Hoa Kỳ đã phát hiện ra linh cữu cha con Friedrich II và Paul von Hindenburg, thậm chí có cả phu nhân của ông Hindenburg, và chuyển thi hài của họ đến Lâu đài Marburg, nhằm sưu tập và tìm kiếm "kho báu" của Đức Quốc xã. Như một phần của dự án bí mật mang tên "Chiến dịch Bodysnatch",[217][218] quân Mỹ chuyển thi hài hai vị vua đến Nhà thờ Elisabeth tại thành phố Marburg, sau đó lại chuyển đến Lâu đài Hohenzollern gần thị trấn Hechingen. Sau khi bức tường Berlin sụp đổ và nước Cộng hoà Liên bang Đức được thống nhất, thi hài Friedrich Wilhelm I được chôn cất trong Lăng Hoàng đế Friedrich III ở Nhà thờ Hòa Bình (Friedenskirche), tại Sanssouci.

Ngoài ra, sau khi bức tường Berlin sụp đổ vào ngày 9 tháng 11 năm 1989,[219] ước muốn của Friedrich cuối cùng cũng trở thành hiện thực. Ngày 17 tháng 8 năm 1991 chính là ngày kỷ niệm 205 năm ngày nhà vua nước Phổ bước vào cõi vĩnh hằng. Vào hôm đó, chiếc quan tài chứa ông được đặt tại sân trước của cung điện Sanssouci và được hộ tống bởi một đội vệ binh danh dự Bundeswehr. Cùng ngày, vào buổi tối ông được chôn cất trong ngôi mộ trên nền đất cao nhất của khu vườn nho. Ngay từ năm 1744, ông đã mong muốn được yên nghỉ tại nơi đây, khi đó ông nói: "Một ngày nào đó ta sẽ ở đây! Đến lúc đó, ta sẽ trở thành một kẻ vô tư lự." (Nguyên văn: Quand je serai là, je serai sans souci.)[220].